Năm 1898, Nha Tổng Thanh tra Công Chính Đông Dương và các Ty, Sở Công Chính được thành lập. Với mục đích đào tạo người Việt Nam giúp việc cho các cơ quan Công Chính, tháng 2 năm 1902, người Pháp thành lập "ngạch sự chuyên môn bản xứ ngành Công Chính" và đến tháng 6 cùng năm, các lớp đào tạo nhân viên cho ngành Công Chính được bắt đầu. Trường Công Chính đầu tiên đặt tại Hà Nội có tên Trường Thư ký và Cán sự chuyên môn Công Chính (École des Secrétaires et Agents Techniques des Travaux Publics) và do Nha Tổng Thanh tra Công Chính Đông Dương điều hành.[1]

Năm 1913, trường được cải tổ theo Nghị định 1015 ngày 15 tháng 4 năm 1913 của Toàn quyền Đông Dương Albert Sarraut và trường được đổi tên là Trường Công Chính (École des Travaux Publics). Trường đóng tại Hà Nội, vẫn trực thuộc Nha Tổng Thanh tra Công Chính Đông Dương. Học sinh được nhận vào, miễn thi nếu có văn bằng Cao đẳng Tiểu học. Sinh viên sau khi tốt nghiệp sẽ được bổ dụng ngạch Cán sự Chuyên môn bậc 1 hạng 4.

Năm 1917, Toàn quyền Đông Dương tái lập trường Viện Đại học Đông Dương tại Hà Nội, Trường Công Chính được nâng lên thành Trường Cao đẳng Công Chính Đông Dương (École Supérieure des Travaux Publics de l’Indochine), với chương trình học 2 năm, điều kiện thi tuyển cũng như trước nhưng các sinh viên tốt nghiệp được tuyển vào ngạch Cán sự Công Chính tập sự, sau 2 năm thì được thi lên hạng 4. Trường lúc này trực thuộc Tổng Nha Học Chính Đông Dương.

Cùng đạo tạo ngành Công Chính, năm 1922, lớp Cao đẳng Công Chính được thành lập để đào tạo các Công trình sư Công Chính (Agents Voyers des Travaux Publics), lớp này được dạy tại Trường Khoa Học Thực Hành và chỉ dành cho các Cán sự chuyên môn Công Chính tốt nghiệp với số điểm trung bình 13 trở lên hoặc có 4 năm công vụ và thi đỗ từ hạng 10 trở lên. Thời gian học là 12 tháng với chương trình gần giống chương trình đào tạo kỹ sư Công Chính tại Pháp thời bấy giờ. Các sinh viên đỗ được cấp văn bằng Diplôme d’Études Supérieures, École des Sciences Appliquées- Section du Cours Supérieur des Travaux Publics và được bổ nhiệm vào ngành Công Trình Sư tập sự, sau 4 năm làm việc được dự thi vào ngành Công Trình Sư Thực Thụ.

Năm 1925, trường Cao đẳng Công Chính đưa thêm môn học Địa Chính và Địa Dư vào chương trình để đào tạo các cán sự chuyên môn người bản xứ cho các Sở Công Chính, Địa Chính và Địa Dư. Thời gian học tăng lên 3 năm. Sinh viên tốt nghiệp được cấp "Văn bằng tốt nghiệp lớp Cao đẳng trường Đại học Khoa Công Chính" (Diplôme Supérieur de l’Université avec mention École des Travaux Publics) và được bổ nhiệm vào ngạch Cán sự Công Chính tập sự, sau 2 năm làm việc sẽ được bổ dụng vào ngạch Cán sự Công Chính hạng 4.

Năm 1928, trường Khoa học Thực Hành bị bãi bỏ, lớp Công trình sư Công Chính được sáp nhập vào Trường Cao đẳng Công Chính.

Năm 1931, Trường Cao đẳng Công Chính tạm dừng tuyển sinh vào các lớp đào tạo Cán sự chuyên môn. Năm 1938, trường mở lại lớp đào tạo này cho các ngành Công Chính, Địa Chính và Địa Dư. Chỉ có những thí sinh có văn bằng Cao đẳng Tiểu học hay tương đương mới được dự thi và khoá học kéo dài trong 3 năm. Sinh viên tốt nghiệp được cấp bằng Tốt Nghiệp Cán sự Công Chính và được bổ dụng vào ngạch tập sự. Riêng lớp Công Trình Sư khoá 1943-1944 được cải đổi thành lớp đào tạo Kỹ sư Công Chính Đông Dương.

Đến năm 1945, khi quân đội Nhật đảo chính Pháp, trường Cao đẳng Công Chính tại Hà Nội phải đóng cửa.